7月4日,2024世界人工智能大会在上海举办。据悉,联合国以及各国政府代表、专业国际组织代表,全球知名专家、企业家、投资家等1000余人参加了本次会议。当天,南都记者穿梭于多个会场,收集了一批人工智能“大佬”们的精彩发言,或可窥见行业最新走势和他们关注的重点。
百度创始人、董事长兼首席执行官李彦宏在现场再度针对“开闭源之争”“开麦”,并坚持“商业化的闭源模型是最能打的”。作为“大模型初创五虎”的代表,智谱AI首席执行官张鹏和MiniMax创始人闫俊杰在现场再次针对大模型的“价格战”展开讨论,张鹏认为价格战不会长久,闫俊杰还指出人类要替代大模型实现“诗和远方”,必须提高大模型的准确率。
针对大模型自身及其应用带来的一系列潜在风险,上海人工智能实验室首席科学家周伯文表示,我们在AI模型安全能力方面的提升,还远远落后于性能的提升,这种失衡导致AI的发展目前是跛脚的。而作为一个“无可救药的技术乐观派”,阿里云创始人王坚则表示,在技术发展过程中,任何人类自身产生出来的问题人类都一定会去解决。
百度李彦宏:最看好的AI应用方向是智能体
面对开闭源之争,百度创始人、董事长兼首席执行官李彦宏在现场再次表示“商业化的闭源模型是最能打的”,并直言百度最看好的是智能体,而搜索是智能体分发的最大入口。
![imagefile 图片](https://np-newspic.dfcfw.com/download/D24805948615526666132_w800h533.jpg)
百度创始人、董事长兼首席执行官李彦宏
对于开源与闭源,李彦宏在现场再次指出,“商业化的闭源模型是最能打的”。李彦宏提到,今年以来,开源和闭源大模型是一个争议较大的话题,但很多人混淆了模型开源和代码开源的概念。
他提到,模型开源只能拿到一堆参数,还要在做SFT、安全对齐,即使是拿到对应源代码,也不知道是用了多少比例、什么比例的数据去训练这些参数,无法做到众人拾柴火焰高,“拿到这些东西,并不能让你站在巨人的肩膀上迭代开发。”
不过,在李彦宏看来,开源模型在一些学术研究、教学领域有存在价值,可以用于研究大模型的工作机制,形成理论。但当处于激烈的商业环境中,想要让业务效率高于同行、成本低于同行,商业化的闭源模型是“最能打的”。
李彦宏还指出,大模型的重点还是“卷应用”,“没有应用,光有基础模型,不管是开源还是闭源都一文不值。”而针对AI应用,在AI时代“超级能干”的应用比只看DAU的“超级应用”更重要,“我们要避免掉入‘超级应用陷阱’,觉得一定要出现一个10亿DAU的APP才叫成功,这是移动时代的思维逻辑。应用其实离我们并不遥远,两个月之前,百度曾宣布文心大模型日调用量超过2亿,近期,该调用量已超过5亿。仅仅两个月,调用量发生这么大的变化,足见它背后代表了真实的需求。”
在AI应用的发展方向上,李彦宏最看好智能体。他表示,随着基础模型的日益强大,开发应用也越来越简单,其中,最简单的就是智能体。而近期多家厂商押注的搜索赛道在李彦宏看来,则是智能体分发的最大入口。
“刚刚过去的高考季,很多大模型企业都热衷于用大模型去写高考作文,其实这个使用价值不大,人家不会允许你带大模型去参加高考,真正的需求是考完之后报志愿的阶段,我们统计发现,高峰期我们的高考智能体每天回答超过200万个考生问题,而我们总共只有一千万考生,这说明一天当中有大比例的人在利用这个智能体。”李彦宏提到。
阿里云创始人王坚:人工智能时代对大公司更友好
中国工程院院士、之江实验室主任、阿里云创始人王坚在现场提到,自己是个无药可救的对技术的乐观主义者。至于那些或许会因为人工智能发展而出现的问题,王坚则相信在技术发展过程当中,任何人类自身产生出来的问题人类都一定会去解决。
王坚还提到,人工智能必将带来新的大公司出现,也一定会有大公司浴火重生。“人工智能对产业的影响是革命性的,只要是个新的技术,一定会有新的大公司出现。如果一个新的技术出来,没有新的大公司出现,那它是不是颠覆性的技术是要打个问号的。但是我自己相信,在这个时代一定会有新的大公司出来。同时就像前几天苹果拿AI去服务了C端的客户这件事,在我看来是人工智能技术重新重构了苹果这家公司。所以这个重构苹果这家公司是从重构它的操作系统开始的。”
人工智能时代与互联网时代会有什么区别呢?在王坚看来,互联网时代充斥着草根创业的传说,似乎互联网时代对很多东西的依赖性都很低,但人工智能时代会依赖数据、算力。从这个角度而言,这个时代对大公司会更友好,但友好并不代表着宽容。“你没有创造力他也不会对你宽容,因为该面临的挑战还是会面临的。”
谈及企业如何拥抱AI时,王坚还提到,你会发现AI对每个部门都会产生影响,但要所有部门的所有人都去拥抱AI,在很多大企业是很难的。“我想小企业跟大企业的差别就是,大企业一定会觉得AI是工具的革命。小企业一定会觉得这是革命的工具,那就是点差别。我想大企业也要意识到这是这个革命的工具,那这个变化就来了。”
蚂蚁集团井贤栋:同样看好专业智能体的应用
在产业发展主论坛上,蚂蚁集团董事长兼CEO井贤栋表示,专业智能体能够破解通用大模型在严谨产业应用的关键难题,在人工智能时代,蚂蚁正在探索如何让AI像扫码支付一样便利每个人的生活,让AI技术发展的红利惠及更多人。
![imagefile 图片](https://np-newspic.dfcfw.com/download/D25383216628769810656_w800h527.jpg)
蚂蚁集团董事长兼CEO井贤栋
据介绍,作为国内较早布局AI大模型的厂商,蚂蚁自研的百灵大模型2023年已通过备案,当下正围绕蚂蚁有生态积累、用户有需求的领域打造AI生活管家、AI金融管家和AI医疗健康管家。这三个管家对应的生活、金融和医疗等场景都需要严谨专业优质的服务。
对于通用大模型落地严谨产业,业界常认为面临着三个“能力短板”:领域知识相对缺乏、复杂决策难以胜任,以及对话交互不等于有效协同。井贤栋在现场表示,为了破解这些难题,蚂蚁选择了构建专业智能体生态的路径,在他看来专业智能体是大模型落地严谨产业的有效路径。
针对领域专业知识的短板,蚂蚁携手合作伙伴打造了大规模专业知识引擎,通过知识引擎为大模型提供“专业教材”,让大模型具备专家知识水平,还则依托知识图谱、密态计算等技术,构建了大规模专业知识引擎,将垂直领域不同类型的数据抽象成不涉及隐私信息的领域知识,供大模型训练学习。
井贤栋指出,未来智能化的用户体验,一定不是只靠一个大模型,而是需要全行业深度协作,需要很多的专业智能体共同参与、各司其职。蚂蚁坚持走开放道路,和行业共建专业智能体生态。他还提出,在移动互联网时代,生活、医疗、金融等场景中涌现出了一批优秀的应用,形成互联互通的网络对外提供服务。在大模型时代,智能体是新的应用范式,蚂蚁也在探索智能服务新可能。“我们相信,通过专业智能体的深度连接,Al会像互联网一样,带来服务的代际升级。”
商汤徐立:模型端侧是实时交互的重要突破点
商汤科技董事长兼CEO徐立在现场提出,应用是决定这个时代是不是人工智能超级时刻的关键。谈及应用,他提出了几大认知。首先在徐立看来,如果要在垂直领域里做突破,需要大模型展现出卓越的深度思考的能力。那么合成的人工数据特别是高级思维的数据往往非常重要。徐立提出,越是有应用的场景才越能形成更好的高质量数据。
二是实时交互性能够带来流畅体验,也是带来推动超级时刻以及应用变化的核心。“试想很多的交互如果说有滞后,甚至不能解决实时的视频流,体验会如何?这也是为什么GPT-4O可能在性能上未必有那么大的提升,但仍给大家带来不同的感知体验。”
同时徐立认为,要实现实时的交互性,端侧是一个非常重要的突破点。据悉,商汤已在今年着重推动模型的端侧优化,实时交互变化更加流畅。徐立认为,用好端和云两部分的计算机资源,才能够成为一种全自然的交互模式。
“生成的可控性”也被徐立认为是一大关键。“不管是文本、图像、视频,如果它没有具备可控性,它本身能够带来的效能提升就非常有限。你不需要做得很好,但你需要知道你哪里做得不好、哪里进行了修改,有了这样一个边界才能做到真正的技术可控以及可持续的技术发展。”
智谱AI张鹏:把想象力切实化作生产力
如何让大模型扎根到传统经济当中去,赋予传统经济更多能力呢?智谱AI首席执行官张鹏提到,大模型带起了一股新的热潮,但AI不是一个今年才发生的事情,上一代AI甚至已经解决了很多问题,但大模型带来了“类人”的认知能力,这并不是让机器成为一个机器、一个工具,而是让机器像人一样去思考,思考这个能力所带来的效能提升是更重要的。
过去,AI也能够产生实际效能去赋能实体经济,但过去的AI面临着泛用性不够、成本太高、需要垂直化去做跟多事情、ROI算不平等问题。大模型带来了新的机遇,即AI能在一个模型上提供泛用化的能力,能解决一系列的场景和应用需求,从而解决成本和收益平衡的问题。
从这个方向去思考,要用新一代生成式AI技术和大模型技术赋能实体经济,必须构建更通用、更基础的能力,利用这个通用和基础能力去解决多项问题,然后用这个收益总和去除以投入成本。
在张鹏看来,下一轮大模型能力突破的关键,是大模型对多模态的突破。“真正的人在现实世界中解决问题,他需要的、输入的信息本身就是多模态的,除了自然语言以外还有视觉、听觉、触觉,还有常识,所有这些需要综合起来才能解决现实世界中很多常见的问题,比如我们希望它帮助我们扫地、做饭、洗衣服,这些人物所需要输入的信息是非常多模态的,所以这些方面能力的突破会带来AI的普惠,它能把原来金字塔型底座大、投入大、收益小的结构,变成一个倒金字塔结构,这样才能真正放大价值。”
“打造尽可能拓展用户想象力的产品,基于大模型的技术为用户提供优质的服务和全新的体验,把用户的想象力切实化作生产力,这是我们对想象力必答题的回答。”张鹏表示。
而谈及大模型的价格战,张鹏则表示,当技术本身越来越好时,成本会越来越低、价格也会持续走低,但这个事情过度后就会切断价值传递。“真正的价值应该是逐级、大家往同样的一件事情里不断添加自己的价值,再放大、扩大这个价值,比如我们给大家提供更优质的服务,也希望大家能够用这个服务创造更大价值,相应地我们创造这一部分价值应该反向再传递回来,就像我们的BP算法一样,大家各自得到自己价值的部分,这才是一个正常合理的市场价值链。最近外面一直在传‘价格战’这件事情,首先在这个阶段用户肯定是得益的,但(价格战)这种事情肯定是不长久的。”
MiniMax闫俊杰:提高正确率能更快实现“诗和远方”
过去一段时间,针对风起云涌的AI技术,网上流传着一个梗:人类希望AI能解放人类生产力,让人类关心诗和远方,但现在更多是AI在“诗和远方”,人类还在做原来的事情。
MiniMax创始人首席执行官闫俊杰在现场提到,提高大模型的正确率,或许能更快实现人类的“诗和远方”。闫俊杰表示,从去年开始ChatGPT出来之后,国内很多公司也在迎头赶上、推出了很多模型。但最核心的问题是,目前国内模型的错误率还比较高,“比如说我们看GPT4,它在很多测试指标上可能正确率有60%、70%,但国内的模型很多时候整体上还是有60%到70%的错误率。这也是大模型产品还不能独立成为Agent的原因。”
要实现“诗和远方”,在闫俊杰看来,需要不断地降低大模型的错误率。“我觉得最核心的问题,是怎么把大模型错误率从30%、40%降到3%、4%甚至降低一个数量级,这个事可以让AI从一个辅助人类的工具成为独立完成工作的个体。当模型的错误率能变成个位数时,即在人类定义测试上都可以接近人类最好水平时,它在实体经济里产生更大效益就变得更加自然。另外这也意味着大模型可以独立完成任务了。”
而针对近期不断被关注的大模型价格战,闫俊杰则表示,大模型价格持续走低整体来说是正向事件。“对于大模型企业来说,价格降低的好处是你可以有更多的用户,可以有更多在线用户的使用时长,有更多的流量,然后也可以产生更大价值,最后是基于这种流量和价值来找到好的商业模式,这件事实际上也正在发生。”
科学家周伯文:AI安全能力提升落后于性能提升
上海人工智能实验室主任、首席科学家周伯文在现场提到,当前以大模型为代表的生成式人工智能快速发展,但随着能力的不断提升,模型自身及其应用也带来了一系列潜在风险的顾虑。
![imagefile 图片](https://np-newspic.dfcfw.com/download/D25257541761238549655_w800h538.jpg)
从公众对AI风险的关注程度来看,首先是数据泄露、滥用、隐私及版权相关的内容风险;其次是恶意使用带来伪造、虚假信息等相关的使用风险,这当然也诱发了偏见歧视等伦理相关问题;此外还有人担心:人工智能是否会对就业结构等社会系统性问题带来挑战,在一系列关于人工智能的科幻电影中,甚至出现了AI失控、人类丧失自主权等设定。
周伯文提到,这些由AI带来的风险已初露端倪,但更多的是潜在风险,防范这些风险需要各界共同努力,需要科学社区做出更多贡献。
去年5月,国际上数百名AI科学家和公众人物共同签署了一份公开信《Statement of AI Risk》,表达了对AI风险的担忧,并呼吁,应该像对待流行病和核战争等其他大规模的风险一样,把防范人工智能带来的风险作为全球优先事项。
周伯文分析,出现对这些风险担忧,根本原因是目前的AI发展是失衡的。“总体上,我们在AI模型安全能力方面的提升,还远远落后于性能的提升,这种失衡导致AI的发展是跛脚的。而不均衡的背后是二者投入上的巨大差异。如果对比一下,从研究是否体系化,以及人才密集度、商业驱动力、算力的投入度等方面来看,安全方面的投入是远远落后于AI能力的。”
周伯文介绍,为实现可信AGI,同时兼顾安全与性能,上海AI实验室最近在探索一条以因果为核心的路径,将可信AGI的发展分为泛对齐、可干预、能反思三个递进阶段。“‘泛对齐’主要包含当前最前沿的人类偏好对齐技术;‘可干预’主要包含通过对AI系统进行干预,探究其因果机制的安全技术,例如人在回路、机械可解释性,以及我们提出的对抗演练等,它以通过提高可解释性和泛化性来提升安全性,同时也能提升AI能力;‘能反思’则要求AI系统不仅追求高效执行任务,还能审视自身行为的影响和潜在风险,从而在追求性能的同时,确保安全和道德边界不被突破。”
(文章来源:南方都市报)